Portrayal of Guilt terbentuk apabila pemain gitar dan vokalis Matt King dan pemain dram James Beveridge – ahli kumpulan hardcore Austin Illustrations[2] – bergabung tenaga dengan pemain bass Blake Given dari kugiran screamo Austin Lyed.[3] Ketiga-tiga mereka mengeluarkan EP bertajuk sendiri mereka pada Mei 2017, dan melawat secara meluas ke seluruh Amerika Syarikat dan Eropah dengan Centuries,[4] Majority Rule,[5] Planning for Burial, Street Sects, dan Slow Fire Pistol.

Pada Mac 2018, mereka mengeluarkan EP berpecah dengan kugiran industrial hardcore Street Sects, yang pernah mereka jelajah dengan sebelum ini, untuk mendapat pujian kritis.[6][7] Pada bulan yang sama ini, Deathwish Inc. mengeluarkan semula tajuk 7".

Pada Julai 2018, sejurus sebelum memulakan jelajah A.S. penuh dengan pejuang pasca-tegar Perancis Birds in Row,[8] mereka mengeluarkan single 5" satu sisi yang mengandungi lagu "Chamber of Misery (Pt. 1)" sebagai permulaan kempen untuk menyokong album studio penuh pertama mereka.[9][10] Nama album, Let Pain Be Your Guide, diumumkan pada 6 September tahun yang sama, bersama-sama dengan tayangan perdana single "A Burden."[11] Pada 1 Oktober, mereka menayangkan single kedua daripada album, "Your War," yang menampilkan vokal daripada Dylan Walker of Full of Hell.[12] Pada 24 Oktober mereka mengeluarkan single terakhir daripada rekod, "Among Friends."[13] Pada 12 November, album penuh telah tersedia untuk didengar melalui NPR. Album ini menampilkan karya seni oleh Chris Taylor dari Pg. 99 dan Pygmy Lush, serta vokal tambahan daripada Maha Shami dari NØ MAN dan Matt Michel dari Majority Rule.[14] Pada 18 November, Let Pain Be Your Guide telah dikeluarkan sepenuhnya, sebahagian besarnya untuk pujian kritikal.[15][16][17]

Pada Februari 2019, Portrayal of Guilt telah dipaparkan dalam The Washington Post, bersama-sama dengan pezaman Vein dan Infant Island, sebagai memberikan "kehidupan baru" kepada screamo.[18]

Pada 2019, Portrayal of Guilt meneruskan jelajah untuk menyokong panjang penuh mereka, dibuka untuk Pg. 99, Peraturan Majoriti, The HIRS Collective,[19] dan Wrong.[20] Mereka juga mengetuai lawatan penuh A.S. dengan sokongan daripada Fluoride, NØ MAN, dan Stay Asleep.[21] Pada Februari 2019 telah diumumkan bahawa mereka akan dibuka untuk Skeletonwitch pada beberapa tarikh di seluruh Amerika Selatan.[22]

Apabila pandemik COVID-19 memaksa jelajah mereka ditamatkan pada Mac 2020, mereka kembali ke Austin dan mula mengerjakan LP kedua mereka, We Are Always Alone.[23] Album ini menampilkan sembilan lagu yang dirakam bersama penerbit Phillip Odom dan dikuasai oleh Will Yip. Persembahan vokal daripada Matt Michel dan Chris Taylor dari Majorityrule dan Pg. 99 muncul di Garden of Despair dan The Second Coming, masing-masing. Pada 29 Januari 2021, album itu dikeluarkan pada Closed Casket Activities, sebuah label logam berasaskan Troy, New York[24].